Nội các Tổng lý Đại thần được đề cử bởi cả hai viện của Quốc hội Nhật Bản. Cho việc đó, mỗi viện tiến hành một cuộc bầu cử dưới hệ thống hai vòng bầu cử. Nếu cả hai viện chọn ra hai người khác nhau, thì một ủy ban hỗn hợp từ hai viện sẽ được cử ra để đồng ý một ứng cử viên chung. Tuy nhiên nếu cả hai viện đều không đồng ý trong mười ngày thì cuối cùng quyết định của Hạ viện sẽ được ưu tiên. Do đó, trên lý thuyết Hạ viện là cơ quan có tiếng nói cuối cùng trong việc quyết định người được đề cử nắm giữ cái ghế Tổng lý Đại thần.

Nội các Tổng lý Đại thần phải từ chức nếu như Hạ viện thông qua một cuộc bỏ phiếu bất tín nhiệm hoặc thất bại trong một cuộc bỏ phiếu tín nhiệm, ngoại trừ Hạ viện bị giải tán trong vòng 10 ngày. Nội các Tổng lý Đại thần cũng phải từ chức sau mỗi lần tổng tuyển cử Hạ viện, ngay cả trường hợp đảng của ông chiếm đa số trong viện. Văn phòng Nội các Tổng lý Đại thần theo truyền thống được nắm giữ bởi người đứng đầu đảng chiếm đa số trong quốc hội ngoại trừ trường hợp hiếm hoi của Tsutomu Hata hay là Tomiichi Murayama.